Експертите призовават за повече разнообразие за борба с пристрастията в изкуствения интелект

Калвин Лорънс е посветил кариерата си на изкуствения разсъдък. Но даже след десетилетия опит в компютърното инженерство, той сподели, че едно нещо остава необикновено рядко.

„ Работил съм по доста AI планове през последните 25 години, не повече от двама [мои колеги] изглеждаха като мен “, сподели Лорънс, който е негър.

Изкуственият разсъдък има обещанието да прекрои бързо нашето общество, само че с това заричане, сподели Лоурънс, идва предизвикването да се сблъскаме и да премахнем пристрастията, които могат да бъдат кодирани в нововъзникващите технологии.

Лорънс е създател на книгата „ Скрити в бялото “, която изследва по какъв начин ИИ способства за систематичния расизъм.

AI е информиран от данните, върху които е построен и от време на време тези данни могат да бъдат расистки, сексистки и неправилни.

През август чернокожа майка в Детройт съди града, откакто тя сподели, че е била лъжливо задържана, до момента в който е била бременна в осмия месец, тъй като чиновниците я свързали с закононарушение посредством технология за лицево различаване. Шефът на полицията в Детройт по-късно обвини „ неприятната проверяваща работа “.

Проучване от 2022 година откри, че робот, подготвен от AI, е по-вероятно да асоциира чернокожите мъже с нарушители или дамите с домакини. Екипът от откриватели стигна до заключението, че продължаващото потребление на такава технология крие риск от „ увеличаване на злокачествените стандарти “, които подхранват расизма и мизогинията.

В Ню Йорк локалният здравен отдел неотдавна разшири коалиция, предизвикваща клинични логаритми, които се приспособяват към расата, защото съгласно тях резултатите постоянно са нездравословни за цветнокожите. Доказано е, че тези логаритми надценяват здравето на цветнокожия човек, съгласно изказване на Министерството на здравеопазването и психологичната хигиена на Ню Йорк, което може да докара до закъснение на лекуването.

В изказване, споделено с CNN, представител на OpenAI, компанията зад ChatGPT и други модели на неестествен общ разсъдък (AGI), се споделя, че пристрастията са значим проблем в промишлеността и OpenAI е отдаден на „ изследване и понижаване на пристрастия и други опасности, в нашите модели. ”

„ Ние непрестанно итерираме нашите модели, с цел да понижим пристрастията и да смекчим нездравословните резултати “, се споделя в изказване на компанията, добавяйки, че за всеки пуснат нов модел OpenAI разгласява изследване за това по какъв начин работят за постигането на тези цели.

Най-добрият метод да се подсигурява, че изкуственият разсъдък отразява опита на цветнокожите хора, сподели Лорънс, е да се уверите, че те са наети и ангажирани във всяка стъпка от процеса.

„ Със сигурност нямате доста черни хора или експерти по данни, които вземат участие в процеса на внедряване и планиране на AI решения “, сподели той. „ Единственият метод да ги накарате да заемат места на масата, би трябвало да ги образовате. “

Увеличаване на разнообразието

Проучванията са открили, че неналичието на многообразие и посланичество в софтуерните области стартира доста преди колежа. Цветнокожите възпитаници нормално имат по-малък достъп до съществени курсове по компютърни науки в гимназията, откри отчет от 2023 г. на Code.org Advocacy Coalition.

Докато 89% от азиатските студенти и 82% от белите студенти имаха надлежно достъп до тези курсове, 78% от чернокожите и испаноговорящите и 67% от индианските студенти имаха същата привилегия.

„ Тези благоприятни условия не са отмерено разпределени и това е проблем “, сподели Андрес Ломбана-Бермудес, помощник в Центъра за интернет и общество Berkman Klein на Харвардския университет.

Тази разлика в достъпа може също да докара до по-малко цветнокожи хора, учещи компютърни науки и изкуствен интелект на колегиално равнище, каза Ломбана-Бермудес.

През 2022 година повече от две трети от всички докторски степени по компютърни науки, компютърно инженерство или информация в Съединените щати са присъдени на непостоянни поданици на Съединени американски щати, за които не е налична етническа принадлежност, съгласно изследването Taulbee Survey на 2022 г. на Асоциацията за компютърни проучвания.

Близо 19% от дипломите са отишли ​​за бели докторанти, а 10,1% са присъдени на азиатски претенденти, в съпоставяне със единствено 1,7% за испаноговорящите и 1,6% за чернокожите.

Лорънс сподели, че има вяра, че диверсификацията на региона на изкуствения разсъдък може да направи технологията по-безопасна и по-етична.

Лорънс каза, че е основал организацията с нестопанска цел AI 4 Black Kids, която работи за образоване на чернокожите деца за изкуствен интелект и машинно образование от ранна възраст, с вярата един ден да усили представителството си в тази област.

„ ИИ е подготвен на толкоз малко исторически гледни точки... задачата за мен е да имам повече чернокожи хора, включени в този развой “, сподели той.

Организацията с нестопанска цел предлага наставнически стратегии за деца на възраст от 5 до 19 години, както и стипендии и съвещания за колежи, каза Лорънс.

Борбата с предразсъдъците в ИИ изисква освен увеличение на расовото разнообразие, само че и многообразие на мисълта, сподели Ломбана-Бермудес. Той предизвиква наемането на социолози, юристи, политолози и други типове учени, насочени към филантропичните науки, с цел да допринесат за диалога към ИИ и етиката.

Ломбана-Бермудес сподели, че вярата му е, че бъдещите поколения могат да облекчат някои от проблемите на пристрастията и недостъпността, защото те израстват дружно с технологията.

„ Надявам се, че това ще се промени и в бъдеще ще имаме по-добри технологии “, сподели той. „ Но това е битка и не е елементарно. Сложен е. “